CiteGuard-RAG：以验证为中心的证据支撑问答系统
🧭 验证中心RAG架构
Department of Computer Science, Western Michigan University
集成混合检索、引用约束生成、句级grounding验证与单次重生成，在最终交付前决定接受、拒绝或重生成答案
📌 工作参考价值（4 点）
- 在电商客服/商品问答中，可将验证作为独立运行时组件放在检索和最终回答之间，对生成答案做句级引用校验，避免给出无依据的售后政策或参数。
- 混合语义-词汇检索（受控数据集检索准确率99.1%）值得借鉴：商品知识库/店铺政策QA可结合BM25和向量检索，提升证据命中率。
- 单次重生成机制：验证失败时先尝试基于检索证据重新生成，若仍不合格则拒绝回答；适合价格、退换货规则等高合规风险场景，防止误导用户。
- 引用约束生成要求逐句标注来源，便于线上审核和用户信任；可用于广告文案合规检查，确保每句声称都有依据。
面向文学知识处理的神经符号时空 GraphRAG 框架
🧭 神经符号时空 GraphRAG 与可验证 QA
Joint Laboratory for Port Big Data and Intelligent Applications, Dalian Ocean University
提出整合时空约束与动态子图检索的 NS-ST-GraphRAG，并发布红楼梦多跳 QA 基准
📌 工作参考价值（4 点）
- 按查询时空范围选择有效图状态：电商/推荐场景中，商品属性、价格、库存、活动规则都有明确时效；可以借鉴论文思路，按时间戳/空间/场景对知识图谱做切片，检索时动态加载匹配版本，避免 RAG 返回过期或冲突信息。
- 本体引导抽取 + 确定性约束检查：在商品知识、活动规则、导购问答等场景，先定义轻量本体（类目、属性、关系、时效），用 LLM 抽取实体关系后，再用规则校验时间范围、数值区间、空间限制等硬约束，降低生成幻觉；适合构建可解释的导购 Agent 或政策问答。
- 可审计的多跳评估方法：论文的机械答案复现、引用忠实度检查、每部分证据跨度设计，可以迁移到内部知识问答或推荐解释评估中；建议对关键业务 QA 采用“规则校验答案 + 独立语义判断”双轨，而不是只依赖 LLM 主观打分。
- 警惕过度设计：实验显示时空 GraphRAG 相比简单窗口基线只有方向性优势但统计不显著；业务上应先用严格 AB 和统计检验验证复杂架构的必要性，避免为了图而图。
面向开放世界地理定位的感知-假设-验证智能体推理框架
🧭 Agent 推理与证据验证定位
The Hong Kong University of Science and Technology (Guangzhou) · The Hong Kong University of Science and Technology
提出 GeoPAVE 双层智能体框架，以感知生成假设、验证证据支撑决策来缓解幻觉与上下文漂移
📌 工作参考价值（4 点）
- 借鉴感知-假设-验证双层结构：在商品图像识别/以图搜货中，先让模型生成候选品牌、款式、材质等假设，再调用商品知识库或属性检测工具对假设做 support/refute/refine，降低多模态 LLM 的幻觉率和错配率。
- 显式证据 grounding 适合召回/排序前的 query 理解：对用户上传图片或模糊描述，不直接输出结果，而是要求模型先提取可验证证据（logo、包装、场景文字）并逐步推断，减少上下文漂移。
- 将决策动作离散化为 support/refute/refine，可以作为推荐 Agent 中的通用校验模块，对 LLM 生成的推荐理由或商品属性进行多轮事实核查后再返回用户，提升可解释性和可信度。
- 构建包含多跳查询、多轮工具调用和结构化推理轨迹的数据集，方式可迁移到电商场景，用于训练/评估带工具调用的推荐 Agent，但需注意增加在线推理时延与成本控制。
Groc-PO：面向多模态LLM的显式接地偏好优化
🧭 多模态LLM对齐 · 分阶段接地偏好优化
University of Science and Technology of China · Xiaomi Corporation · State Key Laboratory of Communication Content Cognition, People's Daily Online
通过在多模态推理的物体、上下文和推理阶段引入显式偏好监督，抑制错误传播并减少幻觉
📌 工作参考价值（4 点）
- 在商品图文描述生成、多模态问答等场景中，可借鉴分阶段偏好优化思想：分别对物体识别、上下文理解和推理结论设计偏好对，在训练时注入更细粒度的真实监督，从而减少事实错误。
- 构建偏好数据集时，可采用类似GCPD的三阶段结构（Object Grounding, Contextual Grounding, Grounded Reasoning），强制模型在生成中间步骤时保持与视觉证据的紧密一致性，这对需要多步推理的电商导购Agent尤其关键。
- 工程实现上，可直接在流行的DPO训练框架（如trl）中添加按阶段分组的损失项，只需将偏好对按阶段标记，然后联合优化，无需大幅改动训练管线。
- 该显式接地监督思路可迁移至搜索推荐中的多模态理解模块（如商品图、视频理解），提升对长尾商品或复杂组合的识别精度，最终改善推荐理由或搜索摘要的真实性。
VaseMuseum：面向古希腊陶器的可信多模态数字博物馆 Agent
🧭 Agent 多模态推理与可靠性控制
通过证据级与响应级双重可靠性控制及无训练 GRPO 选择，缓解 VLM 在专业检索中的幻觉与过度自信
📌 工作参考价值（4 点）
- 检索增强生成的双重可靠性控制：在电商商品问答或推荐解释生成中，可先检索权威来源，通过源级控制过滤多样且可验证的证据，生成后由响应级控制检查声明是否被证据支持；若支持度低，强制输出中性回答，有效抑制幻觉。
- 无训练推理时选择机制（GRPO-style）：不更新 VLM 骨干，从多个候选回答中选择引用有效性和置信度校准更好的结果，适合成本敏感或无法微调的场景，可直接嵌入推荐 Agent 的答案生成模块。
- 3D 多模态感知与推理：支持 2D 图像和 3D 点云输入，可为商品 3D 展示、AR 试穿等场景提供知识增强交互的参考架构。
- 模块化 Agent 设计：感知、检索、推理、控制解耦，便于在现有推荐或客服 Agent 中按需插入可靠性控制组件，快速提升可信度。
MODE-RAG：流形异常诊断与能量检索增强生成评估的多智能体系统
🧭 多模态RAG幻觉缓解 · 基于能量的多智体评估
School of Computer Science & Tech, Huazhong University of Science and Technology · School of AI and Automation, Huazhong University of Science and Technology
提出多智能体系统MODE-RAG，利用变分自由能和注意力动态门控，结合MCTS与logit惩罚来缓解多模态RAG幻觉
📌 工作参考价值（4 点）
- Agent 动态门控机制：基于内部注意力状态和变分自由能（VFE）的风险评估，可用于电商搜索/推荐Agent的决策路由，对高不确定性查询触发更严格的事实核查，避免复杂推理链中的错误传播。
- MCTS 因果推导修正：在推荐解释生成或对话式推荐中，可借鉴蒙特卡洛树搜索对候选推荐理由进行因果验证，减少编造理由（sycophancy），提升可信度。
- Logit 扰动惩罚逢迎：对于倾向生成迎合用户的虚假解释，通过在解码时施加针对性的logit惩罚，可迁移到对话Agent中抑制讨好性幻觉。
- 多智体协作流水线：Correction和Overseer Agent 的分工模式可复用到搜索推荐系统的后处理流程，例如事实核对Agent、格式化稳定Agent，增强最后输出可靠性。
CQC-RAG：通过跨查询一致性实现鲁棒检索增强生成
🧭 RAG 鲁棒性 · 交叉查询一致性
University of Electronic Science and Technology of China
提出跨查询一致性假说，通过生成多样等价查询并评估答案信心稳定性来过滤幻觉，无需外部监督即可提升 RAG 鲁棒性
📌 工作参考价值（4 点）
- 查询变体注入与一致性筛选：在 RAG 管道中，对同一用户意图生成多个语义等价但句法不同的查询，通过对比各查询下答案的置信度稳定性，可以自动过滤噪声导致的幻觉，直接提升问答或知识检索的可靠性，无需额外标注数据。
- 证据-答案配对自评估协议：将答案与支撑其的证据片段强绑定，要求模型同时输出答案和对应证据，再利用跨查询稳定性筛选，这种方法可迁移到 Agent 的多步推理或工具调用验证环节，用于剔除不可靠的中间结果。
- 共享文档池与重排序策略：不依赖扩大检索覆盖，而是先召回一个共享候选文档集合，再针对每个查询变体重新排列文档顺序，构建差异化的推理上下文，在有限检索计算下实现多样化证据视角，适合低延迟、资源受限的业务场景。
- 生成式推荐的鲁棒性借鉴：当用户 query 或产品描述存在多种表达方式时，可通过生成多个语义等价变体、分别生成推荐理由或纠偏候选，再依据一致性选出最稳定的推荐，减少因表述差异导致的推荐结果波动。